#Meta FAIR

'Meta FAIR выпустила CWM, 32B LLM с открытыми весами, mid-trained на трассах выполнения Python и агентных взаимодействиях для более обоснованной генерации и патчинга кода.'

Meta и партнёры разработали новую методику для точного измерения запоминания языковых моделей, показав, что GPT хранит около 3,6 бит на параметр, и предоставили важные инсайты о различии между запоминанием и обобщением.